Curating datasets for object segmentation is a difficult task. With the advent of large-scale pre-trained generative models, conditional image generation has been given a significant boost in result quality and ease of use. In this paper, we present a novel method that enables the generation of general foreground-background segmentation models from simple textual descriptions, without requiring segmentation labels. We leverage and explore pre-trained latent diffusion models, to automatically generate weak segmentation masks for concepts and objects. The masks are then used to fine-tune the diffusion model on an inpainting task, which enables fine-grained removal of the object, while at the same time providing a synthetic foreground and background dataset. We demonstrate that using this method beats previous methods in both discriminative and generative performance and closes the gap with fully supervised training while requiring no pixel-wise object labels. We show results on the task of segmenting four different objects (humans, dogs, cars, birds).
translated by 谷歌翻译
有因果关系的机器学习框架可以通过回答反事实问题来帮助临床医生确定最佳治疗方法。我们通过研究左心室射血分数的变化来探索超声心动图的情况,这是从这些检查中获得的最重要的临床指标。我们首次结合了深层神经网络,双因果网络和生成的对抗方法,以建立一种新颖的因果生成模型,这是建立D'Artagnan(深人造双胞胎生成网络)。在将其应用于心脏超声视频之前,我们在合成数据集上证明了我们的方法的合理性,以回答以下问题:“如果患者的射血分数不同,则超声心动图会怎样?”。为此,我们生成了新的超声视频,保留了原始患者的视频样式和解剖学,同时修改了以给定输入为条件的射血分数。我们在反事实视频中获得0.79的SSIM分数为0.79,R2得分为0.51。代码和型号可在以下网址提供:https://github.com/hreynaud/dartagnan。
translated by 谷歌翻译
反事实可以以人类的可解释方式解释神经网络的分类决策。我们提出了一种简单但有效的方法来产生这种反事实。更具体地说,我们执行合适的差异坐标转换,然后在这些坐标中执行梯度上升,以查找反事实,这些反事实是由置信度良好的指定目标类别分类的。我们提出了两种方法来利用生成模型来构建完全或大约差异的合适坐标系。我们使用Riemannian差异几何形状分析了生成过程,并使用各种定性和定量测量方法验证了生成的反事实质量。
translated by 谷歌翻译
机器学习(ML)技术,尤其是神经网络的应用在处理图像和语言时已经看到了巨大的成功。这是因为我们经常缺乏正式模型来了解视觉和音频输入,所以这里的神经网络可以展开它们的能力,因为它们可以仅从数据模型。在物理领域,我们通常具有在正式水平上合理地描述自然过程的模型。尽管如此,近年来,ML也已证明在这些领域中有用,通过加快数值模拟或通过提高准确性来实现。古典物理学中的一个重要且迄今为止未解决的问题是了解湍流流体运动。在这项工作中,我们通过使用Gledzer-Ohkitani-Yamada(Goy)壳模型来构建强烈简化的湍流表示。通过该系统,我们打算研究ML支持和物理受限的小型湍流建模的潜力。而不是标准监督学习,我们提出了一种方法,该方法旨在重建湍流的统计特性,例如自我相似的惯性范围缩放,我们可以实现令人鼓舞的实验结果。此外,我们在用微分方程结合机器学习时讨论陷阱。
translated by 谷歌翻译